VideoKR: Towards Knowledge- and Reasoning-Intensive Video Understanding
VideoKR:面向知识密集与推理密集型视频理解
🧭 多模态视频理解 · 知识密集推理
Zhejiang University · Tongji University · University of Chinese Academy of Sciences · Yale University
提出首个大规模知识密集视频推理训练语料 VideoKR,并证明数据设计是提升视频推理性能的关键
📌 工作参考价值(4 点)
- 数据设计驱动能力突破:VideoKR 证明,针对特定能力(如知识密集推理)构建高质量、多难度的训练数据,比简单扩大通用数据更有效。在电商推荐中,可针对性构建商品知识推理、用户意图深层理解等微调数据,提升模型复杂决策能力。
- 人类参与、技能导向的生成流水线:通过人工设计技能树、难易分级、思维链验证,确保数据可靠且覆盖渐进式推理能力。可借鉴其流程,为 Agent 规划、多轮对话等场景合成高质量 SFT 数据,减少幻觉并增强逻辑性。
- SFT→GRPO 训练范式:先监督微调再强化学习的二阶段训练,有效增强模型长期推理和自省能力。对于多智体协作、生成式推荐等任务,可用 RL 进一步对齐人类偏好或业务目标,提升策略质量。
- 避免评估捷径:VideoKR-Eval 的设计刻意防止模型利用文本线索或表面统计假依赖,这提示我们在评估推荐解释、对话系统时应设计对抗性评估,确保模型真正理解了语义和上下文,而非文本匹配。